문서의 임의 삭제는 제재 대상으로, 문서를 삭제하려면 삭제 토론을 진행해야 합니다. 문서 보기문서 삭제토론 그림 인공지능 (문단 편집) === 그림 사이트들의 AI 그림 도배 === >이제 그림 같은 거 안 그립니다, '''AI가 전부 다 해주는데 뭐.''' >---- >[[가면라이더 제로원]] 5화에서 이시즈미 초이치로(김정수)가 했던 말. NovelAI의 강력한 성능 이후 Stable Diffusion의 WEB UI 버전 등 많은 사람들이 이용하면서 여러 일들이 발생하기 시작했다. 당연하겠지만 AI 특성상 시간대비 생산이 매우 빠르기 때문에 '''수많은 AI 그림들을 생산했고, AI 그림이 그림 사이트에 도배되는 상황이 벌어졌다.''' 더군다나 그림 인공지능의 시대가 본격적으로 도래하면서 점차 모이는 빅데이터를 통해 학습하는 인공지능의 특징과 프로그래머들의 활발한 업데이트로 인해 각종 모델, 학습 기능, LoRA 파일 등 각종 시스템을 적절히 조합하여 몇 초 만에 눈이 휘둥그래지는 고퀄리티의 그림을 날이 갈수록 간단하게 만드는 등,[* 다만 직접 AI를 돌리는 사람들 입장에서도 제대로 된 그림 1장을 얻기 위해서 온갖 다양한 기능을 직접 배워가며 적절한 태그 선택은 물론 컨트롤넷 등 확장 기능을 통해 자세 등을 계속 수정하면서 심하면 수백~수천장의 그림을 생성해야하기 때문에 흔히 딸깍충이라 불리는 세간의 인식처럼 쉽지는 않다. 진정 자기가 원하는 그림과 자신만의 그림체를 얻고 싶다면, 차라리 그림을 천천히라도 배워 직접 그리는 것이 나을 정도이다.] NovelAI로 대표되던 초창기는 그림체가 뻔하거나 손가락 등 인체가 어딘가 어색하다든지 등 조금만 살펴보면 "이거 AI 그림이구나"라고 금방 생각할 수 있는 수준에서 2023년 초 시점에서는 사실상 작정하고 만들면 육안으로는 구분이 불가능한 수준의 그림들이 나오고 있다. 게다가 거의 매일 같이 각종 고성능 모델들과 여러 단점을 보완할 각종 기능들이 무서울 정도로 쏟아져 나오고 있기 때문에 퀄리티는 하루가 멀다하고 발전하고 있다. 설령 손가락 등의 부분이 어색하게 나오더라도 어차피 수정하면 그만이기 때문에 전문가들도 혼동하는 경우가 많다.[* 프로그래머들과 학습 기능 이용자들도 자체적으로 손이 보다 멀쩡하게 나오게 하거나 쉽게 수정할 수 있게 만들려고 벼르고 있기 때문에 조만간 손 문제도 해결될 가능성이 높다. 실제로 LoRA나 textual inversion 기능을 이용해서 처음부터 상당히 개선된, 최소한 감상하는데 지장이 없는 조형의 손이 그려진 그림도 생성할 수 있다.] 사실 창작 욕구는 있지만 그림을 아예 못 그리거나 직접 배울 시간이 부족한 사람들은 [[실사]], [[만화]], [[애니메이션]], [[밈]], [[팬아트]], [[자캐]], [[마이너]] 장르, [[의인화]], [[모에화]], [[TS물]] 등 아주 다양한 그림을 그림 인공지능이 대신 만들어주는 데 큰 매력을 느끼고 혼자 자기만족으로 즐기는 경우가 많다. 특히나 기존의 그림 등은 작가의 그림체나 취향이 들어갈 수 밖에 없기 때문에 사용 방향, 숙련도, 요령에 따라 좀 더 자기 취향에 가까운 이미지를 만들어 낼 수 있다는 것도 매력이다. 그러나 이렇게 혼자 즐기는 사람도 많은 반면, 남에게 공유하며 보여주고 싶다는 욕구를 가진 유저들도 많은지라 많은 그림 사이트들을 거대한 범위에서 지속적으로 침범하는 것이 문제로 떠오르고 있다. 사실 남에게 보여주고 싶다는 욕구 자체는 잘못된 것이 아니며, AI 이미지 관련 커뮤니티에서 남들에게 보여주면서 함께 가볍게 즐겼다면 큰 문제가 되지 않았을 것이다. 그러나 어마어마한 숫자의 AI 생성 이미지들이 보는 사람들의 입장에 상관없이 일방적으로 여러 그림 커뮤니티에 업로드되고 있어 여러 작가와 [[그림쟁이]]의 진짜 일러스트를 원하는 사람들에게 부정적인 영향을 주고 있다. 트위터 등 대중적인 SNS에서는 워낙 부정적인 여론이 많아 잘 보이지 않는 편이며, 올려도 관심을 가지는 사람들이 적거나 오히려 비난을 받으며 조롱거리가 되기도 하지만, 그런 여론을 거의 신경 쓸 필요 없는 그림 사이트에서는 정말 범람하는 수준이다. 실제로 대표적인 그림 사이트인 [[pixiv]]에서도 현재진행형으로 벌어지고 있는데, 초기에는 AI 작품들이 대거 도배 및 업로드가 되었고 제대로 된 관리나 조치 및 공지가 없었다. 이후 22년 10월 20일 픽시브가 AI 관련 공지사항을 올렸다. [[https://www.pixiv.net/info.php?id=8717|#]] 골자만 따지면 AI를 배제할 생각이 없고 시대의 트렌드라고 본다는 것, 대신 투고 옵션에 AI그림 옵션 토글을 도입하고, 작품 검색시 AI 작품을 따로 필터링할 수 있도록 하며[* 물론 픽시브에서는 마이너스 검색자가 지원되므로 -NovelAI 따위의 검색자를 넣어서 걸러내는 건 가능하다. 그러나 픽시브 투고시의 태그지정은 투고자 자율인데다 외부인이 수정할 수도 있는데, 비양심적인 사람이 인공지능 그림을 올려놓고 인공지능 그림을 알리는 태그를 미기입하거나, 악의적인 목적으로 다른 사람의 그림에 AI그림 태그를 박을 수도 있다는 점이다. 그나마 이 문제같은 경우는 투고자가 그림을 투고하기 전 설정 칸에서 다른 이용자가 태그 편집을 못하게 설정하면 방지할 수 있다. 그리고 마이너스 검색자는 임시방편인 데다가 Stable Diffusion의 각종 모델들이 등장한 후엔 모든 AI를 걸러내기도 어렵기 때문에 완전한 해결책은 되지 못한다.], AI그림 랭킹을 별도로 둬서 AI 그림 바운더리를 반쯤 분리하겠다는 것. 그리고 22년 10월 31일 기준으로 예고했던 AI 관련 추가 공지가 올라왔다. [[https://www.pixiv.net/info.php?id=8728|#]] 이후 픽시브의 속도가 느려졌는데 ai 그림의 폭발적인 증가가 서버에 악영향을 준 것 아니냐는 말이 나오고 있다. [[https://bbs.ruliweb.com/community/board/300143/read/59553292|#]] 또한 사람들이 그림 인공지능을 통해 만들어 내는 그림들 중 선정적인 그림들이 매우 큰 비중을 차지하고 있는데, 이로 미루어 볼 때 인공지능이 발전할수록 자극적인 음란물이 더욱 범람할 것임을 예측할 수 있으며[* 실제로 인공지능은 아니지만 [[소스 필름메이커]]의 경우, 원래는 [[소스(게임 엔진)]]을 사용해서 영화를 만들 수 있도록 제공한 도구였으나 "다른 분야에서 가져온 모델링 + 성행위 묘사"를 통해 이른바 SFM 포르노를 만들어냈다. 물론 의도에 충실한 SFM 영화도 계속 생겨나고 있지만 기술의 악용 가능성은 여전히 존재하는 것이다.] 이를 악용하려는 유저들이 더 많아질 것도 예측되고 있다. 실제로 성인물이 업로드 가능한 그림 사이트에 올라오는 AI 그림의 상당수가 [[야짤]]이며, 독특한 취향을 가진 작가를 만나지 않는 한 쉽게 볼 수 없던 각종 [[페티시]]나 [[혐짤]] 요소를 첨가한 고수위 생성물도 어렵지 않게 찾아볼 수 있다. 이를 이용해 [[팬박스]] 등지에서 AI에 무지하거나 자극적인 이미지를 원하는 사람들을 상대로 후원을 받아, AI 이미지를 이용해 돈을 벌려고 하는 사람들까지 많이 나타나고 있다. 예를 들어, 픽시브에서 맛보기 이미지를 올린 후 팬박스에 원본이나 다른 생성물을 올리는 식으로 AI라도 자기 취향에 맞는다면 돈을 낼 의향이 있는 사람들을 공략하는 유저들이 있다. 심지어 AI 작품을 용인한 [[FANZA]]에서는 한 달 동안 발매된 동인 작품들 중 절반 이상이 AI 사용 작품으로 가득 차는 일까지 벌어졌다. [[https://twitter.com/Tukikagerou/status/1579863234982875136|#]] 그림을 그리는 사람들은 이러한 무분별한 AI 일러스트의 난립에 벌써부터 걱정을 나타내며, 제대로 된 대처가 아니면 제대로 그리는 사람들만 피해를 보게 될 거라는 의견도 존재한다. [[https://twitter.com/mttb2ccp/status/1577957195605741568|#]] 상술한 [[FANZA]]는 성인물을 판매하는 사이트인데, FANZA에서 유료로 판매하는 이미지임에도 성인물 일러스트가 다수 분포하는 [[Danbooru]]를 비롯한 여러 그림 백업 사이트에 무단전재된 숫자도 꽤 존재하며, FANZA에서 활동하는 창작자들은 자신들의 창작물 권리 보호를 전혀 받지 못하고 있다. 심지어 NovelAI의 경우는 아예 단부루에서 데이터셋을 가져와 기반으로 했다. 그래서 많은 창작자나 그들의 팬층은 그림 인공지능 자체를 극히 혐오하는 경우가 많으며, 혼자 AI를 가지고 노는 것조차 꺼리는 사람도 적지 않다. 일단 AI 모델의 토대가 이미 남들의 그림 집합체라는 인식이 대부분인데다가 이미 사실[* 애초에 논란의 대상이 되는 아니메 계열 그림 인공지능의 토대가 사실상 NovelAI고, 그 NovelAI가 데이터셋을 가져온 사이트가 바로 그림 백업 사이트이자 실질적인 무단전재 사이트인 Danbooru다. 이후 Web UI 등으로 NovelAI에서 벗어난 이후에는 여러 유저들이 독자적인 모델들을 만들어 내는 추세고, 점차 심화되는 논란에서 최대한 벗어나기 위해 반복 학습 등으로 만들어낸 자체적인 데이터셋으로 모델을 만드는 경우가 많아지고는 있다. 그러나 근본적인 소스들은 기존의 수많은 그림들이 될 수 밖에 없고, 원작자 모두에게 일일히 허가를 받는 것도 현실적으로 불가능하니 AI가 이미지를 생성하는 단계에서 벗어나 스스로 그림을 그리지 않는 이상 이러한 인식을 걷어내기는 매우 어려울 것이다.][* 덧붙여서 일부 AI 사용자들은 자신은 무단 학습을 시키지 않았고 다른 학습 파일도 다운 받아 이용하지 않았다며 항변하는 경우가 있는데, 애초에 이들이 주로 이용하는 Anything V3를 비롯한 인지도 높은 아니메 계열 그림 모델들은 NovelAI의 유출본에서 파생된 모델들이라 현재 법적으로는 문제가 없어도 점차 떠오르는 저작권, 도용 문제에서는 절대 자유롭지 않다. 정말로 부당하다고 주장하고 싶다면 아무런 외부 소스 없이 자기 스스로 모든 소스를 제작하거나 모든 원작자들에게 합당한 대가를 주고 모든 허가를 받아와서 완전히 독자적인 Stable Diffusion 모델을 만들어서 활용하면 되지만, 기업도 아니고서야 그럴 수 있는 시간, 지식, 자본, 정보력을 지닌 사람이 얼마나 있을 것인지 생각해보면 암묵적인 도용과 그림체 세탁은 계속될 수 밖에 없다.]이고, 혼자 가지고 논다고 해도 결국은 만족도 상승을 위한 퀄리티 상승을 위해 여러 그림을 가져와서 학습시키거나 학습된 기존 LoRA 파일 등을 활용하게 될 텐데, 결국 무단으로 가져온 그림로 만들어진 파일들[* 물론 남의 그림을 최대한 이용하지 않고 공식 이미지나 포즈용 3D 모델링 등 소수의 원본을 토대로 모델의 기본 그림체만 이용해 수 많은 그림을 생성한 후 반복 학습시켜서 만드는 방법도 있긴 있다. 저작권 문제를 떠나 다양한 작화의 그림을 가져와 학습해버리면 그림체가 섞여버려 결과물이 뒤죽박죽해지고 이미지 자체가 깨져버리는 문제도 발생하기 때문이고, 실제로도 수고는 들지만 이런 방식으로 만들어진 학습 파일들의 완성도가 높다.]일 가능성이 높다는 것을 생각해보면 쓰는 것 자체를 혐오하는 인식도 당연히 생길 수 밖에 없기 때문이다. 일단은 각종 그림 사이트의 운영진들은 태그 등으로 AI 그림임을 밝혀달라고는 하고 있지만, 개개인의 양심에 호소하는 것으로 그치는 이상 맹점이 존재하며, 앞으로 발전되는 기술에 따른 분별의 어려움과 결과 도출 후 임의의 리터칭 작업을 거쳐 판매하는 작품들에 대한 명확한 해답이 되지는 못하고 있는 상태다. 따라서 분별이 어려운 그림이 도출될 경우 권고 사항인 태그를 붙이지 않고 양심도 없이 임의로 자작 그림임을 주장한 채 버젓이 판매될 수 있다는 문제점을 여전히 안고 있다. 때문에 이러한 제도 상의 헛점을 막기 위해 일각에서는 작업 파일이나 원본 그림 파일(psd 파일) 등을 같이 제출하는 것으로 AI로 만든 그림이 아님을 증명하게 만들어야 하는 게 아니냐는 의견이 나오기도 했다. 결국 픽시브 팬박스와 fantia 등지에서는 원작자 보호 및 저작권 문제 때문에 AI그림 등재 및 이를 활용한 수익창출을 당분간 금지할 것이라고 성명을 올렸다. 다만 그림 인공지능 자체가 기본 모델 만으로는 만족스러운 결과를 도출할 수 없기 때문에 외부 모델과 학습 파일에 대한 의존도가 매우 높고, 아무리 최적의 조건을 마련하고 생성해도 자신이 원하는 결과를 도출하는 것이 쉽지 않다는 단점도 시간이 흐르며 부각되고 있다. 거기에 노고를 들여 실제로 그리는 것과 달리 그림을 빠르고 많이 뽑아낸다는 점은 물론 비슷한 그림체와 구도가 반복된다는 점이 마치 게임처럼 [[게임 불감증|그림 불감증]][* 진짜 그림의 경우에도 아무리 잘 그리는 작가의 수려한 그림체조차 계속 보면 주제가 아무리 변한들 질리기 마련이고, 전문 그림 작가들도 자신의 완성된 그림체에 [[매너리즘]]을 느껴서 항상 새로운 변화를 도모하곤 한다.]을 유발하기 때문인지, 처음에는 신기함에 많은 유저들이 달려들어 폭풍처럼 쏟아지던 AI 그림들의 기세가 더욱 파고들기 귀찮음에 질려 접은 유저들이 많아지면서 다소 주춤해진 듯하다. 그림을 보는 사람들 입장에서도 초기엔 '이제 AI가 만든 그림으로도 충분하겠다'라는 생각을 가진 사람들도 많았지만 결국 '사람이 그린 그림이 낫다'는 의견으로 돌아서는 경우도 많아졌다. 이러한 인공지능 그림의 범람 문제는 그림 인공지능에 대해 긍정적이든 부정적이든 상관없이 거의 모두가 바라지 않는 사태이다. [[https://biz.chosun.com/science-chosun/science/2022/11/22/XTELPUQKRNBBJOPKEQJJ4PDW2I/|AI그림이 난립할수록 그림 AI의 성능이 떨어질 수 있음을 시사한 기사.]] 그럼에도 기술적, 법률적으로 제재하는 것이 불가능에 가깝기에 각 사이트들도 난감해하는 것으로 보인다. 그림 인공지능이 학습에 대한 대가를 지불하게 하는 등의 까다로운 규제[* 중국은 일부분 규제했고 나라마다 워터마크를 남기지 않으면 불법 등 일정하지 않다.]가 도입된다면 인공지능 생성 그림의 가격이 올라갈 수는 있을 것이고, 따라서 범람을 줄일 수는 있을 것이나 완전히 인공지능 그림이 올라오지 않는 건 힘들 거라 추측된다. 따라서 급변기에 일어나는 사회적 [[아노미]] 현상이 나타날 가능성이 있다. 그리고 현재 그림 인공지능은 강 인공지능이 아니며,[* 간혹 알파고처럼 [[딥 러닝|스스로 학습해서 그릴 수 있지 않을까]] 착각하는 사람들이 있는데, 그게 가능했으면 디퓨전 모델을 사용하지 않았을 것이다.] 결국 학습 데이터는 앞으로도 계속 필요한데 그림의 가치가 없어지면 더 이상 시간들여 그림을 연구하거나 그리는 사람들이 기하급수적으로 줄어들 것이다. 결국 그림 관련 종사자들과 인공지능 개발자 및 사용자들이 서로 상생하지 않는다면 일정 시점부터 인공지능 발전이 느려지는 것은 기정사실일 것이다. 본래 강경하게 그림 인공지능에 대한 규제를 주장하는 사람들이라 할지라도 극단적 반기술론자가 아닌 이상 그림 인공지능을 통한 그림 생성과 유포 자체를 범죄화하자는 주장은 거의 하지는 않았다. 그러나 일부 AI 이용자들의 몰지각한 활용 및 행위로 인해 반감이 더욱 심해져 정말로 범죄화하자는 극단적인 주장까지 나오고 있으며, AI 그림의 저작권 및 윤리적 문제가 점점 국가 단위로 수면 위로 올라오면서 그림 인공지능 제작자 측은 이를 대응하기 위해 데이터셋을 감축하고 일부 성능을 낮추며 사용할 수 있는 태그와 명령어에 까다로운 제약을 두는 등 발전이 느려지는 추세로 들어갔다. 현재 각종 확장 기능으로 인한 퀄리티 상승은 발전이라기 보다는 기존 그림 인공지능의 활용성을 최대한 넓히는 옆그레이드에 가까운 상태다. 흥미로운 점은 이러한 이미지 생성형 인공지능에 대한 비판은 그림 인공지능에 치우쳐진 경향이 크고, 의외로 사진 및 실사형 이미지 인공지능에는 상대적으로 비판이 덜하다. 아무래도 사진은 그림에 비해 저작권에 대한 인지도가 더 낮고, 그림에 비해서는 훨씬 데이터셋 제작이 쉬워[* 그림은 결국 사람이 노고를 들여 직접 그려내야 하고 한장한장을 그리는데 시간이 걸리지만, 사진은 어느정도 촬영 지식과 충분한 성능의 카메라 등 필요 장비, 시간만 충분하다면 데이터셋 제작은 더욱 빠르고 쉽다. 특히 풍경의 경우는 작정하고 카메라, 스마트폰, 드론을 챙겨가서 원하는 풍경을 잔뜩 찍어오면 된다. 도와줄 인원들만 더 있다면 원하는 범위를 더욱 확장할 수 있다.] 도용에 대한 민감함이 적은데다가, 실사의 특성상 구도나 자세를 img2img나 ControlNet으로 그대로 베껴내지 않는 한 원본을 추론하기가 매우 어렵기 때문에 도용이라고 주장하기도 어렵다. 대신 배경이 현실에 존재하지 않는 세상이 될 가능성이 높고 얼굴, 신체, 손이 아주 조금이라도 일그러진다면 바로 [[불쾌한 골짜기]]로 골인하기 때문에, 사진 도용 여부는 몰라도 AI 이미지가 아니라고 주장하기는 어려워서 그림처럼 대놓고 속이려는 유저는 적은 편. 다만 이는 어디까지나 도용 및 저작권에 대한 비판이 적다는 것이지, 실존 인물을 이용한 딥페이크류 이미지 제작 등 초상권 침해, 주가 조작, 가짜뉴스, 각종 범죄에 악용될 수 있는 활용에 대해서는 그림 인공지능보다도 비판의 소리가 크다.저장 버튼을 클릭하면 당신이 기여한 내용을 CC-BY-NC-SA 2.0 KR으로 배포하고,기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다.이 동의는 철회할 수 없습니다.캡챠저장미리보기